Sau Hiệp định Genève, trong khi Quân đội Nhân dân Việt Nam của Việt Nam Dân chủ Cộng hòa ở trong Nam tập kết ra Bắc thì Quân đội Quốc gia Việt Nam ở miền Bắc, trừ một số giải ngũ, cùng quân Pháp di chuyển dần xuống Nam vĩ tuyến 17. Vào tháng Chạp năm 1954 thì quân số trong Quân đội Quốc gia Việt Nam tổng cộng là 230.000 người, trong đó có 65.000 quân địa phương trợ lực cho 165.000 quân chính quy.[4]

Sang năm sau, tức năm 1955, Quân đội Quốc gia Việt Nam chuyển sang nằm dưới quyền chính phủ Đệ Nhất Cộng hòa Việt Nam của tổng thống Ngô Đình Diệm và trở thành hạt nhân của Quân đội Việt Nam Cộng hòa.